Gordon qua đời năm 1699. Tang lễ của ông được tổ chức theo nghi thức cấp nhà nước và được tất cả nhân vật quan trọng ở Moskva tham dự. Người Nga tự nguyện đến dự, vì sự tận tâm và công trạng của người lính già đối với ba Sa hoàng đều được mọi người đánh giá cao. Khi Gordon qua đời, Pyotr Đại đế có mặt bên giường bệnh, đẫm lệ mà vuốt mắt cho ông.

Chẳng bao lâu, Pyotr nhận ra sự mất mát cả về mặt chuyên nghiệp lẫn cá nhân sau cái chết của vị tướng già. Gordon là vị tướng tài ba nhất ở Nga, với kinh nghiệm dày dặn qua nhiều chiến dịch. Trong cuộc chiến sắp đến với Thụy Điển, ông đáng lẽ là tư lệnh và cố vấn đắc lực. Nếu ông còn sống, trận đại bại của quân Nga ở Narva – chỉ 12 tháng sau khi ông chết – hẳn sẽ không bao giờ xảy ra.